Hóa thạch cá nhà táng cổ nhất được tìm thấy tồn tại ở cuối thế Oligocen - khoảng 25 triệu năm trước, cùng với một họ hàng của nó cuối thế Eocen trước khi chúng tách ra thành phân bộ cá voi có răng Odontoceti.

Hóa thạch đã ghi nhận được cá nhà táng rất phổ biến trong thế Miocen, nơi những loài cá nhà táng nguyên thủy (như Zygophyseter và Naganocetus) đã tồn tại; một số hóa thạch khác chỉ ra rằng họ Cá nhà táng (Physeteridae) còn bao gồm các chi Ferecetotherium, Helvicetus, Idiorophus, Diaphorocetus, Aulophyseter, Orycterocetus, Scaldicetus và Placoziphius, trong khi đó hóa thạch của họ Kogiidae bao gồm Kogiopsis, Scaphokogia và Praekogia[1]. Hóa thạch cổ nhất của họ Kogiidae được biết đến là cuối thế Miocen, khoảng 7 triệu năm trước[2].